在这项工作中,我们对基于梯度的元学习(GBML)方法的适应后参数的分布进行了分析。先前的工作已经注意到,对于图像分类的情况,这种适应只发生在网络的最后一层。我们提出了一个更一般的观念,即参数通过与任务空间相同的维度的低维\ emph {subpace}进行更新,并表明这也可以进行回归。此外,诱导的子空间结构提供了一种方法来估计常见的几个弹药学习数据集任务空间的内在维度。
translated by 谷歌翻译
我们介绍了一种与数据对称性相对的学习表示形式的通用方法。核心思想是将潜在空间分解为不变因素和对称组本身。该组件在语义上分别对应于固有的数据类别,并构成姿势。学习者是自我监督的,并根据相对对称信息来渗透这些语义。该方法是由群体理论的理论结果激励的,并保证了无损,可解释和解开的表示。我们通过涉及具有多种对称性的数据集的实验来实证研究该方法。结果表明,我们的表示形式捕获数据的几何形状,并超过其他模棱两可的表示框架。
translated by 谷歌翻译